讓AI大眾化，Amazon Bedrock生成無限可能
- DIGITIMES / 台北
- 2024-04-10 10:38:27
AWS 自去年推出了名為 Amazon Bedrock 的新服務，專門用來讓更多客戶可以輕鬆使用生成式AI。Bedrock 提供多種預訓練好的基礎模型，並允許客戶使用自己的資料來客製自己的專屬模型。AWS 致力讓生成式AI的應用更加普及，為不同行業帶來革新。
生成式AI無處不在，Bedrock 開放定製讓其大眾化
隨著生成式AI技術的發展，其應用已遍佈各個領域。AWS爲此推出了Amazon Bedrock服務，專門用來讓更多客戶可以輕鬆使用生成式AI。
Bedrock包含了AWS自研的Titan基礎模型，以及來自Anthropic、Stability AI等公司的Claude、Stable Diffusion模型，近日更納入了 Mistral AI 的模型，客戶可以利用自己的數據來微調這些模型，只需提供20個樣本，就可以一鍵定製出符合自己需求的模型。
數據加密處理是Bedrock的一大特色，可保護客戶數據隱私。客戶的數據不會用來再訓練底層大模型。此外，Bedrock可無縫與AWS其他服務結合，全面支援生成式AI應用，不需額外管理基礎設施，或擁有大量計算資源，就可以建立自己的生成式AI模型和應用。
AWS自主研發晶片大幅降低成本，讓生成式AI應用更高效經濟
要讓生成式AI真正大眾化，除了開放定製，降低使用門檻外，還需要有效控制訓練和推理的計算成本。AWS在這方面也做了大量工作。
AWS設計的Trainium和Inferentia晶片，可大幅提升生成式AI的訓練和推理效率。Trainium晶片訓練成本可降低50%，是目前最具性價比的訓練晶片。Inferentia晶片推理速度提高4倍，延遲降低10倍，也顯著降低了推理成本。
大家都在看
